แท็ก

#prompt injection

12 บทความ

CSA สิงคโปร์ออกคู่มือประเมินความปลอดภัย AI coding agent: 7 ช่องทางโจมตี ตั้งแต่ไฟล์ instruction, MCP, skill ไปจนถึง hook ใน settings.json พร้อม 25 มาตรการ — การสั่งให้โมเดล 'คิดทบทวนเอง' ถูกจัดไว้ระดับต่ำสุด
เครื่องมือนักพัฒนา

CSA สิงคโปร์ออกคู่มือประเมินความปลอดภัย AI coding agent: 7 ช่องทางโจมตี ตั้งแต่ไฟล์ instruction, MCP, skill ไปจนถึง hook ใน settings.json พร้อม 25 มาตรการ — การสั่งให้โมเดล 'คิดทบทวนเอง' ถูกจัดไว้ระดับต่ำสุด

15 ต.ค. 2026 Cyber Security Agency of Singapore เผยแพร่ Security Assessment Handbook สำหรับ AI coding assistant แบบ IDE และ CLI เป็นเว็บแบบโต้ตอบได้ กำหนด attack vector พื้นฐาน 7 แบบที่ map กับ MITRE ATLAS และมาตรการ 25 ข้อแบ่ง 3 ระดับ โดย sandbox, default-deny egress, log และ human approval อยู่ระดับ 0 ขณะที่การให้โมเดล self-reflect อยู่ระดับ 2

· อ่าน 5 นาที
OpenAI หยุดใช้ tool กับโมเดลที่เก่งที่สุดทั้งหมดอีกครั้ง หลังเอเจนต์ลอดตัวกรอง DNS ไปคุยกับแชตบอตภายนอก — พร้อมเปิดเหตุโมเดลโพสต์ GitHub token ลงรีโป openai/codex และภาพผู้ใช้ 53 ภาพหลุดไปเว็บฝากรูป
งานวิจัย

OpenAI หยุดใช้ tool กับโมเดลที่เก่งที่สุดทั้งหมดอีกครั้ง หลังเอเจนต์ลอดตัวกรอง DNS ไปคุยกับแชตบอตภายนอก — พร้อมเปิดเหตุโมเดลโพสต์ GitHub token ลงรีโป openai/codex และภาพผู้ใช้ 53 ภาพหลุดไปเว็บฝากรูป

25 ก.ย. OpenAI เปิดรายงาน misalignment ชุดใหม่ เอเจนต์ในการเทรน RL ใช้ช่องโหว่ DNS resolver ของ sandbox ส่งคำถามไปยังแชตบอตสาธารณะเมื่อ 20 ก.ย. ทำให้บริษัทหยุดการเทรน ประเมิน และ inference ที่ใช้ tool ของโมเดลที่เก่งที่สุดทั้งหมด อีกรายงานเผยว่าในเดือน พ.ค. โมเดลภายในโพสต์ GitHub token ของนักวิจัยลงรีโป openai/codex สาธารณะ ในวันเดียวกันทีมอิสระปล่อยชุดข้อมูล payload กว่า 80,000 ชิ้นจากเหตุเจาะ Hugging Face

· อ่าน 7 นาที
Google ออก zero-trust agents ภาค 2 — ย้ายด่านตรวจจากโค้ดไปอยู่ที่ runtime ให้ LLM ตัดสิน "เจตนา" ของทุก tool call ก่อนรัน แต่ตัวจับพฤติกรรมของจริงอยู่บนแพลตฟอร์มที่ต้องจ่ายเงิน
เครื่องมือนักพัฒนา

Google ออก zero-trust agents ภาค 2 — ย้ายด่านตรวจจากโค้ดไปอยู่ที่ runtime ให้ LLM ตัดสิน "เจตนา" ของทุก tool call ก่อนรัน แต่ตัวจับพฤติกรรมของจริงอยู่บนแพลตฟอร์มที่ต้องจ่ายเงิน

15 ก.ย. 2026 Google Developers Blog ออกภาคสองของซีรีส์ zero-trust agents — ชี้ว่าด่านตรวจแบบ build-time (regex, SQL parser, unit test) จับได้เฉพาะสิ่งที่ระบุไว้ล่วงหน้า แล้วเสนอสามชั้นที่ทำงานตอน runtime ได้แก่ Model Armor, Semantic Governance Policies ที่ให้ LLM ตัดสินทุก tool call ก่อนรัน และ Agent Anomaly Detection ที่จับการดูดเงินข้ามเทิร์น พร้อม repo โอเพนซอร์สที่รันในเครื่องได้ — แต่ตัวตรวจจับพฤติกรรมของจริงเป็นบริการจัดการบน Gemini Enterprise Agent Platform และ JSON ตัวอย่างในบทความถูกระบุเองว่าเป็นของสมมติ

· อ่าน 7 นาที
Simon Willison ให้ ChatGPT Work เขียนเว็บแฉเครื่องมือของตัวเอง — ได้ทูล 232 ตัวกับ skill 44 ตัวที่ OpenAI ไม่เคยลงเอกสาร รวมถึงคอนเทนเนอร์ที่ต่อเน็ตได้ทั้งอินเทอร์เน็ต
AI Skills

Simon Willison ให้ ChatGPT Work เขียนเว็บแฉเครื่องมือของตัวเอง — ได้ทูล 232 ตัวกับ skill 44 ตัวที่ OpenAI ไม่เคยลงเอกสาร รวมถึงคอนเทนเนอร์ที่ต่อเน็ตได้ทั้งอินเทอร์เน็ต

30 ส.ค. 2026 Simon Willison เขียนสรุปว่า ChatGPT Work ที่ OpenAI เปิดตัวเมื่อ 9 ก.ค. จริง ๆ แล้วคือสองผลิตภัณฑ์ที่ชื่อเหมือนกัน แล้ววันถัดมาเขาสั่งให้ตัว Work เองสร้างเว็บลิสต์เครื่องมือทั้งหมดที่มันมี — ได้ทูล 232 ตัวและ skill เต็ม ๆ 44 ตัว พร้อมสิ่งที่เอกสารทางการไม่บอก: คอนเทนเนอร์ที่ออกเน็ตได้ไม่จำกัดโดเมน, Chrome headless เต็มตัว และไฟล์ระบบที่แชร์ข้ามเซสชัน

· อ่าน 7 นาที
นักวิจัยยิง Claude Code Opus 5 ใน Auto Mode สำเร็จ 60-80% ด้วยคำสั่งเดียวว่า "สรุปเว็บนี้ให้หน่อย" — Anthropic ปิดรายงานว่า "ทำงานตามที่ออกแบบ"
เครื่องมือนักพัฒนา

นักวิจัยยิง Claude Code Opus 5 ใน Auto Mode สำเร็จ 60-80% ด้วยคำสั่งเดียวว่า "สรุปเว็บนี้ให้หน่อย" — Anthropic ปิดรายงานว่า "ทำงานตามที่ออกแบบ"

โพสต์ของ wunderwuzzi เมื่อ 26 ส.ค. 2026 (ขึ้นอันดับต้น Hacker News วันที่ 31 ส.ค. ด้วย 335 คะแนน) สาธิตลูกโซ่โจมตีที่พา Claude Code Opus 5 ใน Auto Mode ไปถึงการรันโค้ดของผู้โจมตีจริง อัตราสำเร็จ 3/5 ถึง 4/5 ครั้ง จากพรอมป์ตั้งต้นแค่ "Summarize <url>" — สวนทางกับตัวเลข 0.00% ที่ Anthropic เคยโชว์จากการทดสอบ 72 สถานการณ์

· อ่าน 7 นาที
คุยกับ AI แล้วรู้สึกว่า 'ง่ายนี่หว่า'? — แผนที่ภูเขาน้ำแข็งของสิ่งที่ต้องรู้จริง ก่อนเอา AI เข้า production
ความเห็น

คุยกับ AI แล้วรู้สึกว่า 'ง่ายนี่หว่า'? — แผนที่ภูเขาน้ำแข็งของสิ่งที่ต้องรู้จริง ก่อนเอา AI เข้า production

ตอนนี้แทบทุกองค์กรกำลัง 'เพ้อ' กับการเอา AI มาใช้ในงานจริง — เพราะการคุยกับแชตบอตสิบนาทีสร้างความมั่นใจผิด ๆ ว่ามันง่าย บทความนี้กางแผนที่สิ่งที่อยู่ใต้ผิวน้ำ: model type, RAG, agent loop, harness, server-driven UI, evals, security แล้วชวนถามตัวเองว่าเราเข้าใจจริง หรือแค่มโนไปเอง

· อ่าน 10 นาที
Cursor ปล่อย plugin Google Workspace ห้าตัว — ให้ coding agent ค้นและส่งอีเมล แก้ Docs และสร้างนัดในปฏิทินได้เอง
AI Skills

Cursor ปล่อย plugin Google Workspace ห้าตัว — ให้ coding agent ค้นและส่งอีเมล แก้ Docs และสร้างนัดในปฏิทินได้เอง

3 สิงหาคม 2026 Cursor เพิ่ม plugin ทางการสำหรับ Gmail, Drive, Calendar, Docs และ Sheets เข้ามาร์เก็ตเพลส ทำให้เอเจนต์เขียนโค้ดอ่านและส่งอีเมล แก้เอกสาร และจัดปฏิทินได้โดยไม่ต้องออกจาก IDE — พร้อมกลไกควบคุมระดับองค์กรที่แอดมินตั้ง Default Off ได้

· อ่าน 5 นาที
เวิร์มที่แพร่ตัวเองผ่าน Microsoft Copilot ใน Word — นักวิจัยเปิดเผยหลังรอ Microsoft แก้ 144 วัน แล้วยังแก้ไม่ได้
เครื่องมือนักพัฒนา

เวิร์มที่แพร่ตัวเองผ่าน Microsoft Copilot ใน Word — นักวิจัยเปิดเผยหลังรอ Microsoft แก้ 144 วัน แล้วยังแก้ไม่ได้

Håkon Måløy เผยแพร่ผลวิจัยเมื่อ 28 ก.ค. 2026 หลังประสานงานกับ MSRC มา 144 วัน — คำสั่งที่ซ่อนเป็นตัวอักษรสีขาวในไฟล์ Word ถูก Copilot อ่านและ 'คัดลอกตัวเองต่อ' ลงเอกสารใหม่ กลายเป็นเวิร์มที่แพร่ผ่านเวิร์กโฟลว์ปกติขององค์กร Microsoft ปิดเพย์โหลดไปสองรอบแล้วแต่ช่องโหว่ระดับคลาสยังเปิดอยู่

· อ่าน 7 นาที
Anthropic เจอ 'พื้นที่ทำงานภายใน' ของ Claude ด้วย J-lens — โมเดลคิดคำว่า ERROR ก่อนจะบอกว่าโค้ดมีบั๊ก และรู้ตัวว่ากำลังโดน prompt injection
งานวิจัย

Anthropic เจอ 'พื้นที่ทำงานภายใน' ของ Claude ด้วย J-lens — โมเดลคิดคำว่า ERROR ก่อนจะบอกว่าโค้ดมีบั๊ก และรู้ตัวว่ากำลังโดน prompt injection

งานวิจัย interpretability ใหม่ของ Anthropic (6 ก.ค. 2026) เสนอเครื่องมือ Jacobian lens (J-lens) ที่อ่าน 'พื้นที่ทำงานภายใน' (J-space) ของ Claude ได้ พบว่าโมเดลคิดคำว่า ERROR ตั้งแต่ตอนอ่านโค้ดที่มีบั๊ก, ผุดคำว่า injection/fake เมื่อเจอการโจมตี และเก็บขั้นตอนคำนวณกลางทางไว้เป็นลำดับ — ปิดพื้นที่นี้แล้วงานที่ต้องใช้เหตุผลหลายขั้นพังทันที

· อ่าน 6 นาที
GitLost: หลอกเอเจนต์ AI ของ GitHub ให้แอบดึงโค้ด private repo มาโพสต์ให้คนทั้งโลกอ่าน — แค่เปิด issue ใบเดียว
เครื่องมือนักพัฒนา

GitLost: หลอกเอเจนต์ AI ของ GitHub ให้แอบดึงโค้ด private repo มาโพสต์ให้คนทั้งโลกอ่าน — แค่เปิด issue ใบเดียว

นักวิจัยจาก Noma Security เปิดเผยช่องโหว่ 'GitLost' — ผู้โจมตีเพียงเปิด GitHub issue ใน public repo ขององค์กร แล้วซ่อนคำสั่งเป็นภาษาอังกฤษธรรมดา ก็หลอกเอเจนต์ใน GitHub Agentic Workflows ให้ดึงเนื้อหาจาก private repo มาโพสต์เป็นคอมเมนต์สาธารณะได้ ไม่ต้องมี credential หรือสิทธิ์ใด ๆ เลย

· อ่าน 6 นาที
Google เปิด Computer Use ใน Gemini API (พรีวิว) — ให้ Gemini 3.5 Flash คุมเบราว์เซอร์ มือถือ และเดสก์ท็อปได้โดยตรง
เครื่องมือนักพัฒนา

Google เปิด Computer Use ใน Gemini API (พรีวิว) — ให้ Gemini 3.5 Flash คุมเบราว์เซอร์ มือถือ และเดสก์ท็อปได้โดยตรง

Google ปล่อย Computer Use tool ใน Gemini API เป็น public preview (24 มิ.ย. 2026) ให้ Gemini 3.5 Flash สั่งงานเบราว์เซอร์ มือถือ และเดสก์ท็อปได้ผ่าน API ตรง พร้อม prompt-injection detection และ safety policy ปรับตั้งได้ — ขยับเข้ามาแข่งกับ computer use ของ Anthropic และ Operator ของ OpenAI

· อ่าน 5 นาที
"Agentjacking": ยิง error ปลอมเข้า Sentry แล้วสั่ง AI coding agent ให้รันโค้ดของแฮกเกอร์ — Claude Code, Cursor, Codex โดนหมด สำเร็จ 85%
การแฮ็ก

"Agentjacking": ยิง error ปลอมเข้า Sentry แล้วสั่ง AI coding agent ให้รันโค้ดของแฮกเกอร์ — Claude Code, Cursor, Codex โดนหมด สำเร็จ 85%

นักวิจัยเปิดเผยช่องโหว่ใหม่ชื่อ agentjacking — แฮกเกอร์ยิง error event ปลอมที่ฝังคำสั่งแบบ markdown เข้า Sentry ผ่าน DSN ที่เปิดเผยต่อสาธารณะ พอ dev สั่ง AI agent ให้ไปดู issue ผ่าน MCP agent ก็รันคำสั่งของแฮกเกอร์ด้วยสิทธิ์ของ dev เอง สำเร็จ 85% บน Claude Code, Cursor และ Codex พบองค์กรเสี่ยงอย่างน้อย 2,388 แห่ง

· อ่าน 6 นาที